Direct Pass@$k$ Optimization for Thought Pruning: Balancing Quality and Diversity in Test-Time Reasoning
直接优化 Pass@k 的思维剪枝：平衡测试时推理的质量与多样性
🧭 LLM 推理剪枝 · pass@k 优化
University of Southern California
直接优化所选候选池的 pass@k，让质量与多样性在剪枝中自动平衡，超越现有策略
📌 工作参考价值（4 点）
- 在搜索/推荐/QueryRec 中用 LLM 生成多个候选 query、文案或商品描述时，可将 pass@k 作为筛选目标：只保留能最大化「至少有一个成功」概率的子集，而不是单独按质量分或多样性筛选，减少冗余并提升最终命中率。
- 工程实现上，对每个生成前缀估计其最终成功的概率（可由模型 logprob 或轻量分类器给出），然后用联合概率选择子集，而非独立 top-k 截断；该思想可嵌入 beam search 或 MCTS 框架，用于 Agent 多步推理轨迹的早期剪枝。
- 结论显示保留中等数量候选时收益最明显，提示不要过度剪枝：当 LLM 生成大量候选时，仅保留前 1-2 个可能损害覆盖，适当保留 5-10 个候选再精排更优。
- 该方法不依赖特定模型，适用于任何可产出候选集的 LLM 场景，可直接用于消息推送选词、搜索 suggestion 的候选生成环节。